任意矩阵 $A \in \mathbb{R}^{m \times n}$ 的四个基本子空间并非孤立存在；它们在几何上以正交补对的形式相互关联。这种「正交架构」是通过投影和最小二乘法求解不相容方程组的前提。我们确立了行空间 $C(A^T)$ 在 $\mathbb{R}^n$ 中与零空间 $N(A)$ 完全垂直，而列空间 $C(A)$ 在 $\mathbb{R}^m$ 中与左零空间 $N(A^T)$ 垂直。
定义与正交性
要理解矩阵的结构，我们必须首先定义子空间互相垂直的含义。这比简单的向量正交条件要严格得多。
- 子空间正交性：一个向量空间中的两个子空间 $V$ 和 $W$ 是正交的，如果 每一个 向量 $v$ 属于 $V$ 都与 每一个 向量 $w$ 属于 $W$。形式化地：对所有 $v \in V$ 且所有 $w \in W$，有 $v^T w = 0$。
- 正交补（$V^\perp$）：一个子空间 $V$ 的正交补包含 每一个 所有与 $V$ 正交的向量。它记作 $V^\perp$（读作「V 正交」）。
正交性的基本定理
线性代数的核心恒等式将矩阵运算与它的空间几何联系起来：
行空间证明
若 $x$ 属于零空间 $N(A)$，则 $Ax = 0$。这意味着 $A$ 的每一行与 $x$ 的点积均为零。由于行空间 $C(A^T)$ 由这些行张成，因此行空间中的每一个向量都必须与 $x$ 正交。
$$x^T(A^T y) = (Ax)^T y = 0^T y = 0$$
这引出了维度的优美平衡。在 $\mathbb{R}^n$ 中，维度总是互补的：$\dim(C(A^T)) + \dim(N(A)) = n$。类似地，在 $\mathbb{R}^m$ 中，有 $\dim(C(A)) + \dim(N(A^T)) = m$。
弗雷德霍姆二选一原理
一种结构性的二元性存在，其中这两个问题恰好有一个有解：
- $Ax = b$：向量 $b$ 属于列空间。
- $A^T y = 0$ 且 $y^T b = 1$：$b$ 在左零空间中有分量，使得系统不相容。
🎯 常见误区：两堵墙
房间里的两堵墙看起来是垂直的，但它们并不是正交子空间！它们共享一条交汇线。因为该线上任意向量都不与自身正交（$v^T v \neq 0$），严格定义不成立。在 $\mathbb{R}^3$ 中，两个平面永远不可能是正交子空间。